Khi hoàn tất, Sazanami được phân về Hải đội Khu trục 7 thuộc Hạm đội 2 Hải quân Đế quốc Nhật Bản. Trong cuộc Chiến tranh Trung-Nhật, từ năm 1937, Sazanami hỗ trợ cho các cuộc đổ bộ lực lượng Nhật Bản lên Thượng Hải và Hàng Châu. Từ năm 1940, nó được phân công tuần tra dọc theo bờ biển và hỗ trợ cho việc đổ bộ lên miền Nam Trung Quốc, và sau đó là việc chiếm đóng Đông Dương thuộc Pháp.

Vào lúc xảy ra cuộc tấn công Trân Châu Cảng, Sazanami được phân về Khu trục đội 7 thuộc Không hạm đội 1 Hải quân Đế quốc Nhật Bản, và đã được bố trí từ Căn cứ Không lực Hải quân Tateyama vào lực lượng đánh phá đảo san hô Midway vào giai đoạn mở màn của cuộc chiến tranh.[6]

Sazanami nằm trong thành phần hộ tống cho các tàu sân bay Hiryū và Sōryū trong cuộc không kích xuống Ambon. Sau đó nó nằm trong thành phần hộ tống cho các tàu tuần dương Nachi và Haguro trong cuộc tấn công của lực lượng Nhật Bản nhằm chiếm đóng Đông Ấn thuộc Hà Lan. Vào ngày 2 tháng 3, trong trận chiến biển Java Sea, Sazanami đã trợ giúp vào việc đánh chìm tàu ngầm USS Perch.[7] Nó quay trở về Xưởng hải quân Yokosuka để sửa chữa vào cuối tháng 3.

Vào cuối tháng 4, Sazanami hộ tống cho tàu sân bay Shōhō đi đến Truk, rồi sau đó gia nhập lực lượng của Đô đốc Takeo Takagi tham gia Trận chiến biển Coral.[8] Lúc kết thúc trận chiến, nó đã vớt 225 người còn sống sót, rồi quay trở về Yokosuka ngang qua Saipan; và sau đó được cho đặt căn cứ tại Quân khu Bảo vệ Ōminato để tuần tra tại các vùng biển phía Bắc cho đến giữa tháng 7. Ngày 14 tháng 7, Sazanami được điều về Hạm đội Liên hợp, và đã hộ tống thiết giáp hạm Yamato và tàu sân bay Taiyō trong trận chiến Đông Solomon vào ngày 24 tháng 8. Trong suốt tháng 9, Sazanami được phân công nhiều chuyến đi vận chuyển "Tốc hành Tokyo" đến nhiều địa điểm khác nhau trong khu vực quần đảo Solomon.[9]

Vào đầu tháng 10, Sazanami hộ tống tàu sân bay Taiyō bị hư hại quay trở về Xưởng hải quân Kure để sửa chữa, và bản thân nó cũng vào ụ nổi ở Xưởng hải quân Yokosuka để tái trang bị. Quay trở lại hoạt động vào ngày 1 tháng 11, nó tiếp tục phục vụ hộ tống cho Taiyō và sau đó là với tàu sân bay Unyō cho đến tháng 2 năm 1943. Cho đến tháng 8 năm 1943, Sazanami tiếp tục phục vụ như là tàu hộ tống cho Unyō và Taiyō đi lại giữa Yokosuka và Truk cùng Kavieng. Nó là soái hạm của Chuẩn Đô đốc Matsuji Ijuin trong trận chiến ngoài khơi Horaniu, nơi nó bảo vệ cho lực lượng binh lính đổ bộ lênVella Lavella. Sau khi giúp triệt thoái các lực lượng Nhật Bản còn sống sót tại Rekata vào cuối tháng, Sazanami quay trở lại vai trò hộ tống cho nhiều tàu sân bay khác nhau cho đến cuối năm 1943.

Vào ngày 1 tháng 1 năm 1944, Sazanami được phân về Hạm đội 5 Hải quân Đế quốc Nhật Bản. Vào ngày 12 tháng 1, Sazanami khởi hành từ Rabaul gia nhập một đoàn tàu vận tải chở dầu từ Palau đến Truk. Nó trúng phải ngư lôi phóng từ tàu ngầm USS Albacore, và bị chìm cách 550 km (300 hải lý) về phía Đông Nam Yap, ở tọa độ 05°15′B 141°15′Đ / 5,25°B 141,25°Đ / 5.250; 141.250. Trong số thủy thủ đoàn, 153 người đã thiệt mạng, và 89 người còn sống sót được tàu khu trục chị em Akebono cứu vớt.

Ngày 10 tháng 3 năm 1944, Sazanami được rút khỏi danh sách Đăng bạ Hải quân.[5]